Leo Breiman
概述 (50-200字符)
美国统计学家,贝尔实验室统计科学部前研究员,集成学习奠基人,提出 Bagging(1996)和随机森林(2001)算法。
关键内容 (≥300字符, 用双链)
- 学术背景:Leo Breiman 是 20 世纪最重要的统计学家之一,长期在加州大学伯克利分校任教,曾在贝尔实验室统计科学部工作。他的研究横跨统计学、机器学习和数据科学。
- 核心贡献:1996 年提出 Bagging(自举聚合)(Bootstrap Aggregating),证明通过对训练集有放回抽样并聚合多个独立模型的预测,可以显著降低高方差模型的误差。2001 年融合 Bagging 与随机特征子集提出 随机森林(Random Forests),成为表格数据上最强的算法之一。
- CART 算法:Breiman 与 Jerome Friedman、Richard Olshen 和 Charles Stone 共同开发了分类与回归树(CART)算法,为决策树建立了严格的数学框架。随机森林中的每棵树都是 CART 树。
- 历史影响:他的工作直接催生了 XGBoost、LightGBM 等梯度提升树算法。深度学习崛起之前,随机森林是 Kaggle 竞赛的绝对主力;至今仍在表格数据领域与梯度提升方法并列最强。
来源
- [Breiman, L. (2001). Random forests. Machine learning, 45(1), 5–32.] — 随机森林原始论文
相关
- 随机森林(Random Forests) — created
- Bagging(自举聚合) — created
- Random Forests (Breiman 2001) — author_of